![arxiv：2411.16489v1 [cs.cl] 2024年11月25日](/simg/2/21154fab2747c49632df27a7d0caa841bde8a03f.webp)
机构名称：
¥ 1.0
本文对当前复制Openai的O1模型功能的方法进行了批判性检查，特别关注广泛但通常未公开的知识蒸馏技术的使用。虽然我们以前的工作（第1部分（Qin等人，2024））探讨了O1复制的基本技术途径，这项研究揭示了O1的API的简单蒸馏，并结合了监督的微调，可以在复杂的数学推理任务上实现卓越的性能。通过广泛的实验，我们表明，基本模型对数万个样本O1延伸的长期思考链的微调优于美国邀请赛数学考试（AIME），其技术复杂性最少。此外，我们的调查范围超出了数学推理，可以探索跨不同任务的O1延伸模型的概括能力：幻觉，安全性和开放域QA。值得注意的是，尽管仅对数学解决问题的数据进行了培训，但我们的模型证明了对开放式质量QA任务的强烈概括，并且在微调后变得明显降低了对无粘液的影响。我们故意将这一发现公开以促进AI研究中的透明度，并挑战该领域中晦涩的技术主张的当前趋势。这种教育的命令不仅代表了技术考虑因素，而且代表了一个基本的人类使命，它将影响AI创新的未来。1相关资源将在https://github.com/gair-nlp/o1-journey上找到。我们的工作包括：（1）蒸馏过程及其有效性的详细技术阐述，（2）一个全面的基准测试框架，用于评估和分类O1复制尝试，基于其技术透明度和可重复性，（3）对痛苦的限制和潜在的限制，我们对痛苦的限制和潜在的风险进行了关键的讨论：我们的分析：crcial crcial crucial：crucial clucial clucial clucial clucial clucial clucial clucial clucial culminates''''''系统很重要，以第一原则思维为基础的研究人员的发展至关重要。
arxiv：2411.16489v1 [cs.cl] 2024年11月25日
主要关键词
![arxiv：2411.16489v1 [cs.cl] 2024年11月25日PDF文件第1页](/bimg/c/c1ad21db506a8eaecf953eda41142bce361b3b26.webp)
![arxiv：2411.16489v1 [cs.cl] 2024年11月25日PDF文件第2页](/bimg/b/bf6fd565f4dd2ef237256ccc28290f50e9bab8bd.webp)
![arxiv：2411.16489v1 [cs.cl] 2024年11月25日PDF文件第3页](/bimg/f/f709fe97dc9306e6ec9bad960f74f702a8922227.webp)
![arxiv：2411.16489v1 [cs.cl] 2024年11月25日PDF文件第4页](/bimg/c/cbe28376b15d9e07f80b0157ea8d696b3cda7f81.webp)
![arxiv：2411.16489v1 [cs.cl] 2024年11月25日PDF文件第5页](/bimg/6/64c9cc90623f7842bdeced77b0c853f96e3c3787.webp)
相关文件推荐
![arxiv：2411.18623v1 [cs.cv] 2024年11月27日](/simg/f/ffb70dc031055f868005f7e395f79b8254f9bcda.webp)
![arxiv：2411.04498v1 [gr-qc] 2024年11月7日](/simg/d/d6719577a52e806384b7694a89c3f5dc266f6ee0.webp)
![arxiv：2411.01086v3 [Quant-ph] 2024年11月7日](/simg/4/410fa5aa89c5f450d87b0519061fcbec18bdbb5e.webp)
![arxiv：2411.07997v1 [cond-mat.quant-gas] 2024年11月12日](/simg/a/a72e480f7969b5f9e5bdc06e4ec841ba73a2549e.webp)
![arxiv：2401.14907v2 [cs.ro] 2024年11月29日](/simg/0/0d8974404b80c2e87a42eedcdacbe5baabb4b814.webp)
![arxiv：2407.02109v2 [cs.cv] 2024年11月23日](/simg/a/ae4d53ed1d1cc0ff7fb46a3f603ec01aff994b63.webp)
![arxiv：2406.17697v1 [cs.lg] 2024年6月25日](/simg/9/937f633fcdf4917da882b60dacd7de51eeac43e2.webp)
![arxiv：2404.16907v1 [q-bio.gn] 2024年4月25日](/simg/b/bbc93b7d32150cde89111cf9e07add3ada32f5bc.webp)
![arxiv：2201.03616v5 [stat.me] 2024年11月4日](/simg/e/efd06bb8b42ad34fa555e4373a2bbe570880fcb3.webp)
![arxiv：2403.01107v2 [physics.optics] 2024年5月25日](/simg/f/f7da8af41858c5a7953bf00673dff75f80e71f06.webp)
![arxiv：2409.19923v2 [physics.optics] 2024年11月23日](/simg/b/bf678be4420dafb8d86a0418e5b6975104825e38.webp)
![arxiv：2401.05363v4 [eess.sp] 11月11日，2024年7月](/simg/b/ba1742bc77a8dfbb6a8152d56fd2735a158fea04.webp)
